Kalinin đã nghỉ hưu năm 1946 và chết vì ung thư [13] vào ngày 3 tháng 6 cùng năm trong Moskva. Kalinin đã được vinh danh bằng Quốc tang và được chôn cất tại Nghĩa trang tường Điện Kremli.

Ba thành phố lớn (Tver, Korolyov và Königsberg) đã được đặt tên hoặc đổi tên để vinh danh ông; chỉ nơi cuối cùng trong số đó, Kaliningrad, vẫn giữ được tên sau khi Liên Xô sụp đổ. Kalinin và Phố Kalinin được đặt theo tên của Kalinin được đặt tại Minsk, Belarus. Đại lộ Kalinin tại Dnipro, Ukraine đã được đổi tên thành Prospekt Serhiy Nigoyan vào tháng 1 năm 2015.[14]